Dari Panggilan API Langsung ke Abstraksi LangChain

Di Luar Permintaan Mentah

Ketika memulai dengan Model Bahasa Besar (LLM), para pengembang biasanya menggunakan panggilan API langsung (seperti perpustakaan Python OpenAI) untuk mengirimkan permintaan dan menerima hasil. Meskipun berfungsi, pendekatan ini menjadi sulit dikelola seiring aplikasi semakin berkembang.

Masalah Tanpa Keadaan

Model Bahasa Besar secara inheren tanpa keadaan. Setiap kali Anda mengirim pesan, model akan "melupakan" siapa Anda dan apa yang sebelumnya Anda katakan. Setiap interaksi adalah lembaran kosong. Untuk menjaga percakapan tetap berjalan, Anda harus secara manual mengirimkan seluruh riwayat kembali ke model setiap kali.

Solusi LangChain

LangChain memperkenalkan ChatOpenAIpengemas model. Ini bukan sekadar pengemas demi kesempurnaan—ini merupakan dasar dari modularitas. Dengan mengabstraksikan pemanggilan model, kita nantinya dapat mengganti model, menyisipkan memori, dan menggunakan templat tanpa harus menulis ulang seluruh basis kode kita.

Adegan Laut Pirat

Bayangkan sebuah email pelanggan yang ditulis dalam bahasa gaul "gaya bajak laut". Untuk menerjemahkan ini menjadi respons korporat yang formal, panggilan API langsung mengharuskan Anda menulis instruksi secara permanen. Dengan LangChain, kita memisahkan "Gaya" (Bajak Laut vs. Formal) dari "Isi" (Email) menggunakan abstraksi.

TERMINALbash — 80x24

> Ready. Click "Run" to execute.

Question 1

Why do we say LLMs are "stateless"?

They do not have access to the internet.

They cannot generate the same response twice.

They do not inherently remember previous messages in a conversation.

They are only capable of processing text, not data states.

Challenge: Initialize ChatOpenAI

Solve the problem below.

You are building a creative writing assistant and need to initialize your first LangChain model.

Your task is to create a ChatOpenAI instance named my_llm with a temperature of 0.7 to allow for more creative (non-deterministic) responses.

Task

Write the Python code to import and initialize the model.

Solution:
from langchain_openai import ChatOpenAI
my_llm = ChatOpenAI(temperature=0.7)